Pada 4 April 1967 ketika berumur 43 tahun, Othman dilantik sebagai Menteri Besar Johor ke-3. Beliau menyandang jawatan ini selama tiga penggal sehingga tahun 1982. Nasibnya bertukar apabila Dr Mahathir menjadi Perdana Menteri Malaysia dan Musa Hitam menjadi timbalannya. Musa Hitam dikatakan menggunakan semua cara dari ibu pejabat UMNO di Kuala Lumpur untuk melemahkan pengaruh Othman. Ini merupakan titik permulaan untuk kejatuhan kerjaya politiknya.

Pada tahun 1982, Othman meletakkan jawatannya sebagai Menteri Besar selepas 16 tahun berkhidmat. Beberapa tahun kemudian pada tahun 1987, beliau menyertai parti politik Semangat 46 yang baru ditubuhkan oleh Tengku Razaleigh Hamzah untuk mencabar UMNO dalam pilihan raya umum pada tahun 1990. Walau bagaimanapun, Semangat 46 tidak begitu berjaya dan kemudian dibubarkan.

Dia telah menjual kebanyakan hartanya untuk membayar cukai. Malah gelaran 'Datuk' juga ditarik balik. Selepas kekalahan beliau dalam UMNO, beliau hampir dilupakan.